iT邦幫忙

第 11 屆 iThome 鐵人賽
DAY 10
0
Google Developers Machine Learning

我是高中生，我學ML和NLP系列 第 10 篇

【Day 10】RNN學習筆記II Part II

11th鐵人賽
667 瀏覽

  • 分享至 

  • xImage
    •  

https://ithelp.ithome.com.tw/upload/images/20190923/20103852KsXEVLDr2y.png

當RNN在Train的同時，每個Input的權重參數都會依照梯度下降法而調整。然而參考的依據是看loss值，當loss值變高時，會盡量不要往那個方向找，如果相差太大，會考慮往遠一點的地方找。但這會造成當我走一小步路造成loss值有很大的轉變時，會希望以最高效率預測loss最低的地方，於是會跑很大一步路導致超出範圍而噴出Error。

https://ithelp.ithome.com.tw/upload/images/20190923/20103852JfDPlIS8Fm.png

原因如圖。


上一篇
【Day 09】RNN學習筆記II Part I
下一篇
【Day 11】RNN學習筆記II Part III
系列文
我是高中生，我學ML和NLP 共 20 篇
  1. 16
    【Day 16】RNN學習筆記II Part VI
  2. 17
    【Day 17】RNN學習筆記II Part VII
  3. 18
    【Day 18】RNN學習筆記II Part VIII
  4. 19
    【Day 19】Transformer學習筆記 Part I
  5. 20
    【Day 20】Transformer學習筆記 Part II
完整目錄
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言
iThome鐵人賽
參賽組數
1064 組
團體組數
40 組
累計文章數
22202 篇
完賽人數
602 人
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react vue.js
熱門問題
熱門回答
熱門文章
IT邦幫忙